Pada peringkat awalnya, Muaz dilantik sebagai pegawai Baitulmal dalam menjalankan kerja-kerja membahagikan zakat dan barang keperluan asas di Madinah. Selepas itu, Umar melantik beliau sebagai pasukan bantuan untuk membantu tentera Islam dalam siri Peperangan Islam-Rom Byzantine.

Kemudian, akibat jangkitan wabak taun, beliau wafat selepas menggantikan Abu Ubaidah Al-Jarrah yang juga maut akibat wabak tersebut. Ketika itu, tentera Islam sedang berkhemah di sekitar Amawas. Selepas itu jawatannya disandang oleh Amru Al-Ash.